Vorgehen gegen Grok Bundesregierung will KI-sexualisierte Bilder unterbinden

Vor einer Woche wurde Kritik an dem KI-Assistenten Grok der US-Plattform X laut, nun bekräftigte die Bundesregierung den Plan eines neuen Gesetzes, das Betroffene und marginalisierte Gruppen besser vor Missbrauch schützen soll. Konkret geht es dabei um sexualisierte Bilder, die mit Hilfe Künstlicher Intelligenz (KI) erstellt werden. Mehrfach geriet dabei Grok seit Jahresbeginn in die Kritik, massenhaft anstößige Bilder produziert zu haben. 

Neues Gesetz in Planung 

Justizministerin Stefanie Hubig (SPD) bezeichnete es als „fürchterlich“, wenn Grok ohne Einwilligung von Betroffenen Bilder manipuliere und beispielsweise Frauen in aufreizende Bikinis kleide. Besonders verwerflich sei die Erstellung von sexualisierten Bildern von Kindern und Jugendlichen. „Das dürfen wir nicht hinnehmen“, erklärte Hubig gegenüber der Neuen Osnabrücker Zeitung. Der KI-Dienst Grok ermöglicht es Nutzern, Bilder nach Belieben zu verändern, was erhebliche Bedenken hinsichtlich der Privatsphäre und des Persönlichkeitsrechts aufwirft.

Die Koalition arbeite derzeit deswegen an einem Entwurf für ein digitales Gewaltschutzgesetz, das darauf abzielt, Betroffene besser vor solchen KI-gestützten Bildmanipulationen zu schützen. Hubig betonte, dass es künftig einfacher werden müsse, sich gegen Verletzungen von Persönlichkeitsrechten zu wehren. Zudem kündigte sie Strafrechtsverschärfungen an, um gegen diese Form der digitalen Gewalt vorzugehen.

Bedrohung auch für LGBTIQ+-Menschen

Vor wenigen Tagen hatte bereits die britische Medienaufsichtsbehörde Ofcom angekündigt, die aktuellen Schutzmechanismen bei Grok genau zu überprüfen. Ähnliche Pläne wurden auch seitens der Europäischen Union laut. Queere Aktivisten hatten davor gewarnt, dass die Sexualisierung von Bildern insbesondere eine Gefahr für marginalisierte Gruppen wie die LGBTIQ+-Community darstellen könne, beispielsweise auch für nicht geoutete Jugendliche und Erwachsene. Das Thema Mobbing könne dabei zusätzlich an Brisanz hinzugewinnen.  

Ein Sprecher von Grok erklärte, dass es sich bei den Beanstandungen um „isolierte Fälle“ handele – man arbeite trotzdem daran, die Sicherheitsvorkehrungen weiter zu verbessern. X-Eigentümer Elon Musk betonte überdies, dass alle Nutzer, die Grok zur Erstellung „illegaler Inhalte“ einsetzen, „die gleichen Konsequenzen wie beim Hochladen illegaler Inhalte“ zu befürchten hätten. Bewahrheiten sich die Vorwürfe, könnte X mittels Grok sowohl gegen den britischen Online Safety Act sowie gegen den europäischen Digital Services Act verstoßen haben.